Журнал
Научно-технический вестник информационных технологий, механики и оптики
УДК:004.056
Номер:3 (155)
Подход к обнаружению неконвенциональной пиксельной атаки на нейронные сети обработки изображений методами статистического анализа
Аннотация:
Введение. Искусственный интеллект получил широкое распространение в задачах обработки изображений. Вместе с тем в системах, реализующих технологии искусственного интеллекта, растет количество уязвимостей (увеличивается поверхность атаки). Основные угрозы информационной безопасности могут быть реализованы посредством внесения вредоносных возмущений во входные данные вне зависимости от их типа. Для обнаружения таких атак были разработаны подходы и методы, основанные, в частности, на применении автокодировщика или анализе слоев целевой нейронной сети. Недостатком существующих методов, значительно снижающих области их применения, является привязка к набору данных или архитектуре модели. В данной работе рассматриваются вопросы расширения областей применения (повышения масштабируемости) методов обнаружения, оптимизированных по псевдонорме L0 искажений, вносимых неконвенциональными пиксельными атаками. Предложен подход к обнаружению пиксельных атак методами статистического анализа входных данных независимо от модели и набора данных. Метод. Предполагается, что пикселы возмущения, встроенные в изображение при адресации атаки, оптимизированной по L0, будут считаться одновременно и локальными, и глобальными выбросами. Обнаружение выбросов выполняется с использованием таких статистических метрик, как отклонение от ближайших соседей и расстояние Махаланобиса. Оценка каждого пиксела (оценка аномальности) производится как произведение статистических метрик. Для обнаружения атаки применяется алгоритм отсечения по порогу. При обнаружении пиксела, для которого полученная оценка превышает некоторый порог, изображение признается искаженным. Основные результаты. Апробация подхода выполнена на наборах данных CIFAR-10 и MNIST. Разработанный метод продемонстрировал высокую точность обнаружения атак. На наборе данных CIFAR-10 точность обнаружения однопиксельной атаки (accuracy) составила 94,3 %, а при обнаружении атаки по карте значимости на основе Якобиана (Jacobian based Saliency Map Attack, JSMA) — 98,3 %. Представленный подход может быть использован в задачах обнаружения искаженных пикселов. Обсуждение. Предложенный подход применим для обнаружения однопиксельных атак и JSMA, но потенциально может быть использован для любых искажений, оптимизированных по L0. Подход применим к цветным изображениям и изображениям в оттенках серого независимо от набора данных. Рассмотренный подход потенциально универсален к архитектуре нейронной сети, поскольку для обнаружения атак использует исключительно входные данные. Подход может быть использован для обнаружения искаженных неконвенциональными пиксельными атаками изображений в обучающей выборке до формирования модели.
Ключевые слова:
Постоянный URL
Статьи в номере
- Оптические свойства границы раздела тонких пленок оксидов индия и олова с лазерно-осажденными одностенными углеродными нанотрубками
- Применение ксантеновых флуоресцентных красителей для обнаружения микропластика в почве и проведения фитотестов
- Исследование влияния управляющего напряжения фазового модулятора на основе ниобата лития на величину паразитной амплитудной модуляции и распределение интенсивности оптического излучения на торцах канальных волноводов
- Оценка количественного состава ингибиторов гидратообразования по их инфракрасным спектрам
- Магнитооптические свойства молекул атмосферного воздуха
- Фемтосекундная лазерная модификация золь-гель пленок ZnO:Ag с проявлением дихроизма
- Оценка плотности плазмы в воде на основе теории Келдыша при изменении длины волны накачки
- Люминесцентные и колориметрические свойства покрытых оболочкой диоксида кремния сферических нанокристаллов теллурида кадмия во внешнем электрическом поле
- Синтез наблюдателя электродвижущей силы вращения синхронного двигателя с возбуждением от постоянных магнитов с переключаемой структурой и самонастраивающимися подсистемами фильтрации и оценки углового положения
- Совершенствование алгоритма обработки данных от мультисенсорной системы в задачах определения показателей качества растительных масел
- Совместное легирование тетрабората лития переходными и щелочными металлами
- Анализ химических взаимодействий при заполнении цезием газовой ячейки квантового магнитометра
- Полимерно-солевой синтез и исследование структуры нанопорошков модифицированного ванадием алюмоиттриевого граната
- Повышение безопасности медицинских данных в облачных средах с помощью двойной аутентификации и оптимального шифрования с настройкой ключей
- Устранение искажений слабых изображений астрономических объектов на примере Сатурна, Юпитера и их спутников
- Метод формирования сегментов информационной последовательности с использованием функционала качества моделей обработки
- Метод удаления размытия видеоизображения на смартфоне при движении
- О влиянии сосредоточенного включения на спектр собственных колебаний струны и балки Бернулли–Эйлера
- Восстановление нестационарного теплового потока от аккумулятора тепловой энергии путем решения обратной задачи теплопроводности
- Применение теории нечетких множеств при решении задач управления временным ресурсом радиолокационной станции мониторинга космического пространства
- Количественная оценка и моделирование биомеханических характеристик голеностопного сустава